математическая, применение к результатам наблюдений математических методов для построения выводов об истинных значениях искомых величин. Всякий результат наблюдений, связанных с измерениями, содержит ошибки (погрешности) различного происхождения. По своему характеру ошибки делятся на три группы: грубые, систематические и случайные (о грубых ошибках см. ст. Ошибок теория; в дальнейшем будет предполагаться, что наблюдения не содержат грубых ошибок). Обычно результат измерения Y некоторой величины μ считают случайной величиной; тогда ошибка измерения δ = Y - μ будет также случайной величиной. Пусть b = Еδ - Математическое ожидание ошибки. Тогда Y = μ + b + (δ - b). Величину b называют систематической ошибкой, а δ - b - случайной ошибкой; математическое ожидание δ - b равно нулю. Систематическая ошибка b часто бывает известна заранее и в этом случае легко устраняется. Например, в астрономии при измерении величины угла между направлением на светило и плоскостью горизонта систематическая ошибка является суммой двух ошибок: систематические ошибки, которую даёт прибор при отсчёте данного угла (см. Инструментальные ошибки), и систематические ошибки, обусловленной преломлением лучей света в атмосфере (см. Рефракция). Инструментальная ошибка определяется с помощью таблицы или графика поправок для данного прибора; ошибку, связанную с рефракцией (для зенитных расстояний, меньших 80°), достаточно точно можно вычислить теоретически.

Влияние случайных ошибок оценивается с помощью методов теории ошибок. Если Y₁, Y₂,..., Y_n - результаты n независимых измерений величины μ, произведённых в одинаковых условиях и одинаковыми средствами, то обычно полагают

где b - систематическая ошибка. Об оценке абсолютной погрешности приближённого равенства (1) см. в статьях Наименьших квадратов метод, Значимости уровень.

В том случае, когда требуется вычислить значение некоторой функции f (y) в точке y = μ, причём величина μ оценивается по n независимым наблюдениям Y₁, Y₂,..., Y_n, приближённо полагают

Пусть В - математическое ожидание величины

т. е.

Поэтому В - систематическая ошибка и (Δ - В) - случайная ошибка приближённого равенства (2). Если случайные ошибки независимых наблюдений Y₁, Y₂,..., Y_n подчиняются одному и тому же распределению и функция f (y) в окрестности точки у = μ. мало отличается от линейной, то В ≈ 0 и

где

- арифметическое среднее случайных ошибок исходных наблюдений. Это означает, что если Е (δ_i - b)² = σ², i = 1, 2,..., n, то Е (Δ - В)² ≈ ЕΔ² ≈ [f' (μ)]²σ²/n → 0 при n → ∞.

В случае нескольких неизвестных параметров Н. о. часто осуществляется с помощью метода наименьших квадратов.

Если изучается зависимость между случайными величинами Х и Y на основе совокупности n независимых наблюдений, каждое из которых есть вектор (X_i, Y_i), i = 1,..., n, компоненты которого X_i и Y_i подчиняются исследуемому совместному распределению величин Х и Y, то соответствующая Н. о. выполняется с помощью теории корреляции (См. Корреляция) и математической статистики (См. Математическая статистика).

При Н. о. приходится делать некоторые предположения и допущения о характере функциональной зависимости, о распределении случайных ошибок и т.д., поэтому Н. о. должна включать в себя проверку согласия сделанных допущений с результатами использованных и др. наблюдений. См. Статистическая проверка гипотез.

Лит.: Уиттекер Э. Т. и Робинсон Г., Математическая обработка результатов наблюдений, пер. с англ., Л. - М., 1935; Линник Ю. В., Метод наименьших квадратов и основы математико-статистической теории обработки наблюдений, 2 изд., М., 1962.

Л. Н. Большев.